ในขณะที่ การดำเนินการแบบแต่ละจุด จัดการกับแต่ละองค์ประกอบในเทนเซอร์อย่างอิสระ, รูปแบบการลดขนาด สร้างความสัมพันธ์ระหว่างข้อมูลที่มีหลายองค์ประกอบของข้อมูลนำเข้าถูกบีบอัดให้กลายเป็นค่าผลลัพธ์เพียงค่าเดียว (เช่น ผลรวม ค่ามากสุด หรือค่าเฉลี่ย) เพื่อใช้งานได้อย่างมีประสิทธิภาพ ต้องช่วยสะท้อนความแตกต่างระหว่างโครงสร้างทางตรรกะ 2 มิติของข้อมูล กับการแสดงผลแบบเส้นตรงในหน่วยความจำฮาร์ดแวร์
1. การแมปหน่วยความจำ 2 มิติ
เทนเซอร์ 2 มิติมีโครงสร้างเชิงตรรกะเป็นตาราง แต่ในทางกายภาพแล้วเป็นเส้นตรงในหน่วยความจำ (RAM) การเข้าใจ ลำดับแถว เทียบกับ ลำดับคอลัมน์ การจัดวางเป็นสิ่งสำคัญในการกำหนดว่าการลดขนาดจะผ่านที่อยู่หน่วยความจำต่อเนื่องหรือต้องการการเข้าถึงแบบกระโดด
2. โครงสร้างการดำเนินการแบบแต่ละจุดเทียบกับโครงสร้างการลดขนาด
การ การสำเนาเมทริกซ์ แสดงถึงการดำเนินการแบบแต่ละจุดที่มีการจับคู่จากข้อมูลนำเข้าไปยังผลลัพธ์ในอัตราส่วน 1:1 ในทางกลับกัน การ การลดขนาด เป็นการดำเนินการแบบหลายต่อหนึ่ง ($N:1$) ที่ต้องอาศัยการสะสมร่วมกันระหว่างเธรด หรือการประมวลผลแบบลำดับภายในบล็อก
3. การหดตัวของมิติ
การลดขนาดถูกกำหนดโดย แกน ของการดำเนินการ การลดขนาดตามแกน 1 (แถว) เทียบกับแกน 0 (คอลัมน์) จะเปลี่ยนแปลงรูปแบบการกระโดดของหน่วยความจำและอัตราการเข้าถึงแคชของฮาร์ดแวร์อย่างมีนัยสำคัญ